Thái Ung người quận Trần Lưu (nay là huyện Kỷ, Hà Nam, Trung Quốc), tổ Thái Huề (蔡攜), tự Thúc Nghiệp (叔業), cha là Thái Lăng (蔡棱), tự Bá Trực (伯直), mẹ Viên thị là em gái của Tư đồ Viên Bàng (袁滂). Thời trẻ Thái Ung thờ mẹ có hiếu. Sau khi mẹ qua đời, sống với chú và em họ. Lòng hiếu thảo của ông được mọi người khen ngợi[1]. Thái Ung có tài học rộng, theo thụ giáo thầy Thái phó Hồ Quảng học kinh thuật và từ chương, thiên văn, âm luật, trở nên nổi tiếng về học thuật của mình.

Thời Hán Hoàn Đế, các hoạn quan Từ Hoàng, Tả Tá chuyên quyền. Nghe nói Thái Ung giỏi đánh đàn, họ bèn tâu lên Hán Hoàn Đế. Hoàn Đế bèn lệnh cho Thái thú quận Trần Lưu đốc thúc ông về Lạc Dương. Thái Ung không muốn làm quan nhưng không thể từ chối, đành phải lên đường. Do dọc đường trèo đèo lội suối vất vả, đi tới Yển Sư, ông cáo ốm và quay về[2].